Trong suốt triều đại lâu dài của Đại đế Ekaterina II, Pyotr Aleksandrovich Rumyantsev giữ chức Thống đốc xứ Ukraina. Trước kia, Bá tước Aleksandr Ivanovich Rumyantsev cha ông cũng là vị Thống đốc thanh liêm của Ukraina. Trong thời gian này, Thống đốc P. A. Rumyantsev dùng uy quyền để xoá bỏ tất cả những quyền tự trị của người Cossack, và hoàn toàn sáp nhập vùng đất mới được chinh phạt vào đế quốc Nga. Một số người tố cáo ông mặc sức bóc lột nông nô tại Tân Nga, nhưng thật ra ông đã không làm thế.

Thấy Nga hoàng có ý đồ thôn tính Vương quốc Ba Lan, đế quốc Thổ Nhĩ Kỳ phản đối, chiến tranh Nga-Thổ Nhĩ Kỳ bùng nổ vào năm 1768.[6] Vào năm 1769, Bá tước Pyotr Aleksandrovich Rumyantsev lên thay chức chỉ huy của Vương công A. Golitsyn, sau khi quân Thổ bị đánh tan tác và mất Hotin.[21] Ông bèn phái quân tiến vào xứ Moldavia và xứ Wallachia, tại những nơi này Quân đội Nga được nhân dân ủng hộ. Ông luôn tin tưởng vào việc tấn công đối phương. Quân đội Nga còn tiến xa tới tận vùng Bucharest, họ cũng chiếm được Azov và Taganrog. Giữa sông Dniester và sông Bug, Bá tước Rumyantsev nghỉ đông cùng quân sĩ trên lãnh thổ Ba Lan. Vào năm 1770, trong khi Vương tước Petr Panin chiếm được Bender ở vùng Hạ Dniester, Bá tước Rumyantsev kéo quân xuống vùng sông Pruth, đập tan tác quân Thổ và quân chư hầu Krym do Hãn vương xứ Krym thân chinh thống lĩnh tại Ryabaya và Mogila.[6][22]

Trong các trận giao chiến, ông đã thực hiện lối đánh mới: ông chỉ thống lĩnh 20.000 quân Nga. Còn lại, ông chia lực lượng Bộ binh Nga thành những đội hình hàng dọc gồm 4-8.000 quân, những đội hình này có thể độc lập tiến quân, nhưng có thể giúp đỡ lẫn nhau trong những cuộc Tổng tấn công từ nhiều phía.[4] Họ được trang bị hỏa pháo, và dựa vào hỏa lực để dẹp tan những cuộc tấn công của quân Thổ Nhĩ Kỳ.[6] Trong cuộc chiến tranh Nga - Thổ Nhĩ Kỳ, Bá tước Rumyantsev đã dạy cho viên Sĩ quan Mikhail Illarionovich Kutuzov về nhiều bài học hay về binh cách mà ông từng trải nghiệm, và Kutuzov sau này đã đánh thắng Hoàng đế Pháp nổi tiếng Napoléon Bonaparte. Tuy Kutuzov tỏ ra dũng cảm, một người bạn của ông này đã mách lẻo với Nguyên soái Rumyantsev về việc Kutuzov nhái lại các động tác của ông nhằm mua vui cho các bạn. Vốn là một người dễ tự ái, Nguyên soái Rumyantsev đã nổi trận lôi đình; và chính lòng dũng cảm cùng với những chiến công đã cứu Kutuzov thoát khỏi cơn thịnh nộ của vị Thống soái. Ông chỉ thuyên chuyển Kutuzov sang tập đoàn quân Krym.[4]

Sau chiến thắng của Quân đội Nga tại Ryabaya và Mogila, quân Thổ Nhĩ Kỳ bỏ chạy đến Larga.[22] Trong trận Larga vào ngày 29 tháng 7 năm 1770, Quân đội Nga của ông đánh tan tác quân Thổ đông đảo hơn hẳn, và gây cho quân Thát Đát một chiến bại thảm hại.[8] Ông luôn cho rằng Quân đội Nga cần phải có sự hiểu biết về đối phương, và ông luôn tỏ ra lo sợ những cuộc tấn công của quân Thổ Nhĩ Kỳ. Sau chiến thắng huy hoàng tại Karga, ông đã trình tấu với Nữ hoàng Ekaterina II những thông tin có ích về quân Thổ, mà ông đã nhận được từ đám tù binh địch. Nhà ngoại giao lừng danh Thổ Nhĩ Kỳ thời đó là Ahmed Resmi Efendi đã tỏ ra ngưỡng mộ cơ cấu tình báo của Quân đội Nga khi hành động.[23]

Trong trận Kagul vào ngày 21 tháng 7 năm 1770, ông thống lĩnh 17.000 quân Nga giành chiến thắng lừng lẫy trước 150.000 quân Thổ Nhĩ Kỳ, buộc Đại Vizia Thổ Nhĩ Kỳ là Hamil-Bey phải chạy dọc theo sông Danube, và do đó, Đài kỷ niệm Rumyantsev được xây nên để kỷ niệm ông.[24] Với chiến công hiển hách của Bá tước Romanzow tại Lagul cùng nhiều thắng lợi huy hoàng khác của Quân đội Nga, Nữ hoàng Ekaterina II hết sức vui sướng và tự hào.[25] Với chiến thắng tại Kagul, quân sĩ của ông đã chiếm được doanh trại của quân Thổ.[26] Sau những chiến thắng trước quân Thổ đông đảo hơn trên sông Pruth, ông tiến vào vùng Hạ Danube, và nhanh chống chiếm lĩnh Izmail, Kilia, Akkerman, và Braila; Bucharest cũng thất thủ về tay Quân đội Nga. Đại Vizia Thổ Nhĩ Kỳ là Mehmet Emin Pasha tỏ ra bất lực trong việc cải thiện tình hình quân Thổ, và giờ đây Quân đội Nga đã có con đường rộng mở để tiến chiếm kinh đô Constantinopolis.[6]

Vào năm 1771, quân Thát Đát giao chiến với Bá tước Rumyantsev, và Quân đội Nga đã chiếm được xứ Krym. Nhưng Quân đội Nga phải ngưng chiến với Thổ Nhĩ Kỳ, bởi vì, sau khi đánh bại liên quân Nga - Áo - Pháp và giữ vững Vương quốc Phổ, do lo sợ Quân đội Nga đánh chiếm kinh thành Constantinopolis của Thổ Nhĩ Kỳ sau một loạt thất bại thảm hại của quân Thổ Ottoman, Quốc vương Phổ là Friedrich II Đại Đế đã cùng với Nữ hoàng Ekaterina II Đại Đế và Nữ hoàng Áo là Maria Theresia tiến hành cuộc chia cắt Ba Lan lần thứ nhất (1772);[27] và triều đình Nga còn phải đàn áp cuộc nổi dậy của giai cấp nông nô (1773 - 1775). Vào năm 1773, triều đình Nga ban huấn lệnh cho Rumyantsev tấn công quân chính quy Thổ Nhĩ Kỳ ở phía Nam sông Danube, nhưng ông không thích làm điều đó vì ông chỉ có một đạo quân nhỏ, việc giao thông giữa căn cứ và mặt trận lại bị đe dọa bởi các đồn quân Thổ Nhĩ Kỳ, nhất là tại Silistria. Trong cuộc tiến công quân Thổ tại Silistria, dù ban đầu thành công, ông đã bị đánh bại với tổn thất nặng nề vào ngày 17 tháng 6 năm 1773.[28][29]

Vốn đã vượt sông Danube vào tháng 6, Bá tước Rumyantsev rút quân vào tháng sau, để tránh những thảm họa sẽ xảy ra sau chiến bại tại Silistria.[6][29] Tuy nhiên, ông lại xuất quân và giành chiến thắng tại Karas, tiến quân đến Varna và Shumla.[30] Với những chiến công hiển hách của ông, Rumyantsev được phong làm Nguyên soái cùng danh hiệu Zadunaisky (nghĩa là "Người vượt sông Danube"). Khi Quân đội Nga tiến đến Shumla vào năm 1774, tân Hoàng đế Thổ Nhĩ Kỳ là Abdul Hamid I hoảng sợ và thỉnh cầu lập lại hoà bình. Tại làng Küçük Kaynarca, Nguyên soái Rumyanstev đã ký kết Hoà ước trên một chiếc Prôvăng.